FP8，其全称为 8-bit floating point（8 位浮点数），是一种超低精度的数据表示格式，相较于 FP32（单精度）或 FP16（半精度）等传统浮点格式，FP8 可以在尽量保持数值稳定性和模型精度的前提下，进一步降低存储和计算开销（参见机器之心

训练 英伟达 deepseek fp8 fp4 2025-08-27 22:16  3

FP8，其全称为 8-bit floating point（8 位浮点数），是一种超低精度的数据表示格式，相较于 FP32（单精度）或 FP16（半精度）等传统浮点格式，FP8 可以在尽量保持数值稳定性和模型精度的前提下，进一步降低存储和计算开销。

训练 英伟达 deepseek fp8 fp4 2025-08-27 21:45  2

近日，清华大学团队打造了首个用于推理加速的微缩版 FP4 注意力机制——SageAttention3，在英伟达 RTX5090 上实现了 1038TOPS 的计算性能。相比此前在英伟达 RTX5090 上计算性能最快的、由美国斯坦福大学提出的 FlashAtt

清华 竞品 矩阵乘法 fp4 fp4注意力 2025-05-30 21:42  7

近日，清华大学团队打造了首个用于推理加速的微缩版 FP4 注意力机制——SageAttention3，在英伟达 RTX5090 上实现了 1038TOPS 的计算性能。相比此前在英伟达 RTX5090 上计算性能最快的、由美国斯坦福大学提出的 FlashAtt

推理 清华 矩阵乘法 fp4 fp4注意力 2025-05-29 18:34  8